Ai, come difendersi dagli 'attacchi' all'imaging radiologico

Uno studio, frutto della collaborazione tra l'Istituto di fisica applicata Nello Carrara del Cnr e l'Università di Pisa, ha evidenziato come il 'machine learning', che utilizza gli algoritmi per l'analisi delle immagini cliniche, può essere utilizzato anche per modificarle, creando i cosiddetti 'attacchi avversi', in grado di ingannare gli stessi sistemi di analisi. La ricerca è stata pubblicata sulla rivista European Journal of Nuclear Medicine and Molecular Imaging del gruppo Springer Nature.  "Nel mondo digitale, la sanità 4.0 si muove veloce verso una nuova visione, fondata su dati e integrazione di informazioni.   Le analisi basate sull'Ai costituiscono uno strumento sempre più diffuso in tutti gli ambiti clinici, suscitando grandi aspettative.

Un esempio è la Radiomica, ossia l'estrazione di parametri quantitativi dalle immagini radiologiche, con cui creare modelli diagnostici e predittivi: uno strumento ormai ampiamente utilizzato e, negli ultimi anni, rafforzato dall'introduzione delle reti neurali, dando origine alla deep-radiomics", dichiara Andrea Barucci del Cnr-Ifac che firma la ricerca con il radiologo dell'Università di Pisa Emanuele Neri. . "Il machine learning, su cui principalmente si fonda la potenza di queste analisi informatiche delle immagini - aggiunge Barucci -, può tuttavia essere usato anche in modo negativo, per creare attacchi avversi ai sistemi di analisi delle immagini, cioè modifiche ad hoc delle immagini, impercettibili anche all'occhio umano esperto, studiate per ingannare gli stessi algoritmi e pilotare l'esito di una diagnosi". Lo studio dei due ricercatori definisce questo fenomeno in ambito di imaging radiologico come 'Adversarial Radiomics': "Un'analogia con il più ampio campo di ricerca dell'adversarial machine learning, in cui il fenomeno è studiato da anni, per esempio, nella cyber-security e nella guida autonoma", aggiunge Neri.

"Gli esempi avversi sono un problema relativamente recente nello studio del machine learning, ma la loro applicazione all'imaging clinico è un ambito ancor più nuovo e con risvolti sociali importanti ad esempio nelle frodi assicurative", spiega ancora Barucci.

fonte: European Journal of Nuclear Medicine and Molecular Imaging, ansa